Пародийна реклама, споделена от Илън Мъск, клонира гласа на Камала Харис, предизвиквайки опасения относно изкуствения интелект в политиката

НЮ ЙОРК (AP) — Видео, което употребява инструмент за клониране на глас с изкуствен интелект, с цел да имитира гласа на вицепрезидента Камала Това, че Харис споделя неща, които не е казвала, поражда опасения по отношение на силата на изкуствения разсъдък да подвежда с изборния ден след към три месеца.

Видеото притегли вниманието, откакто софтуерният милиардер Илон Мъск го показа в своята обществена медийна платформа X на Петък, без категорично да се отбелязва, че в началото е бил пуснат като подигравка.

Късно в неделя Мъск беше изяснил, че видеото е замислено като ирония, като прикачи обявата на истинския основател към неговия профил и употребява игра на думи, с цел да подчертае, че е подигравка не е закононарушение.

Видеото употребява доста от същите образни детайли като същинска реклама, която Харис, евентуалният претендент за президент на Демократическата партия, пусна при стартирането на акцията си. Но подправената реклама заменя гласа на Харис зад кадър с глас, генериран от AI, който безапелационно имитира Харис.

„ Аз, Камала Харис, съм вашият претендент от демократите за президент, тъй като Джо Байдън най-сетне разкри сенилността си по време на дебата “, споделя гласът на AI във видеото. В него се твърди, че Харис е „ наем на многообразие “, тъй като е жена и цветнокож човек, и се споделя, че тя не знае „ първото нещо за ръководството на страната “. Видеото резервира марката „ Harris for President “. Той също по този начин прибавя някои достоверни минали клипове на Харис.

Миа Еренберг, представител на акцията на Харис, сподели в имейл до Асошиейтед прес: „ Вярваме, че американският народ желае същинската независимост, опция и сигурност, които вицепрезидентът Харис предлага; не подправените, манипулирани неистини на Илон Мъск и Доналд Тръмп. “

Широко споделеният видеоклип е образец за това по какъв начин реалистични изображения, видеоклипове или аудио клипове, генерирани от изкуствен интелект, са били употребявани както за насмешка, по този начин и за заблуждение по отношение на политиката, до момента в който Съединените щати се доближават към президентските избори. Той разкрива по какъв начин, защото висококачествените AI принадлежности са станали доста по-достъпни, остава неналичието на обилни федерални дейности за контролиране на потреблението им, оставяйки разпоредбите, ръководещи AI в политиката, значително на щатите и обществените медийни платформи.

Видеоклипът също повдига въпроси за това по какъв начин най-добре да се оправя със наличие, което размива границите на това, което се смята за уместно потребление на AI, изключително в случай че попада в категорията на сатирата.

Оригиналният консуматор, който е разгласил видеото, YouTuber, прочут като господин Рейгън, разкри през цялото време както в YouTube, по този начин и в X, че манипулираното видео е подигравка. И въпреки всичко първичната обява на Мъск с видеото, което имаше доста по-широк обсег със 130 милиона гледания на X, съгласно платформата, включваше единствено надписа „ Това е необикновено “ със смеещо се емоджи.

През уикенда, преди Мъск да обясни в профила си, че видеото е смешка, някои участници в функционалността „ общностна записка “ на X предложиха обявата му да бъде етикетирана като манипулирана. Към него не е прибавен подобен етикет, макар че Мъск е разгласил настрана за пародийното видео.

Някои консуматори онлайн се съмняват дали първичната му обява може да наруши разпоредбите на X, съгласно които потребителите „ не могат да споделят синтетични, манипулирани или отвън подтекста медии, които могат да заблудят или объркат хората и да доведат до щета. ”

Политиката има изключение за мемовете и сатирата, стига да не провокират „ доста комплициране по отношение на достоверността на медиите “.

Какво да знаете за изборите през 2024 година

Крис Колс, индивидът зад онлайн личността на господин Рейгън, уточни кореспондент на АП към видеоклип в YouTube, който той разгласява рано в понеделник, в отговор на тестването. Във видеото в YouTube той удостовери, че е употребявал изкуствен интелект, с цел да направи подправената реклама и твърди, че тя явно е подигравка, със или без етикет.

Мъск поддържа Тръмп, някогашния президент републиканец и сегашен претендент, по-рано този ден месец. Той не отговори на изпратено по имейл искане за коментар.

Двама специалисти, профилирани в медиите, генерирани от изкуствен интелект, прегледаха аудиото на подправената реклама и потвърдиха, че огромна част от него е генерирано благодарение на AI технология.

Един от тях, Калифорнийският университет в Бъркли, Експертът по цифрова криминалистика Хани Фарид сподели, че видеото демонстрира силата на генеративния AI и deepfakes.

„ Гласът, генериран от AI, е доста добър “, сподели той в имейл. „ Въпреки че множеството хора няма да повярват, че това е гласът на вицепрезидент Харис, видеото е доста по-силно, когато думите са в нейния глас. “

Той сподели, че генеративните AI компании, които дават принадлежности за клониране на глас и други принадлежности за AI, би трябвало да се постараят по-добре, с цел да подсигуряват, че техните услуги не се употребяват по способи, които могат да навредят на хората или демокрацията.

Роб Вайсман, съпредседател на застъпническата група Public Citizen, не се съгласи с Фарид, като сподели, че счита, че доста хора ще бъдат заблудени от видеото.

„ Сигурен съм, че множеството хора, които го гледат, не одобряват, че е смешка “, сподели Вайсман в изявление. „ Качеството не е ужасно, само че е задоволително положително. И тъкмо тъй като се подхранва от към този момент съществуващи тематики, които са циркулирали към нея, множеството хора ще повярват, че е същинско. видеото е „ нещо, за което предупреждавахме “.

Други генеративни дълбоки подправени AI в Съединени американски щати и другаде се пробваха да повлияят на гласоподавателите с дезинформация, комизъм или и двете. В Словакия през 2023 година подправени аудио клипове се показват за претендент, обсъждащ проекти за подправяне на избори и повишение на цената на бирата дни преди вота. В Луизиана през 2022 година сатирична реклама на комитет за политически дейности наслагва лицето на претендент за кмет на Луизиана върху артист, който го показва като несполучлив гимназист.

Конгресът към момента не е приел законодателство по отношение на ИИ в политиката и федералните организации са подхванали единствено лимитирани стъпки, оставяйки множеството съществуващи регулации в Съединени американски щати на щатите. Повече от една трета от щатите са основали свои лични закони, регулиращи потреблението на AI в акции и избори, съгласно Националната конференция на държавните законодателни органи.

Освен X, други компании за обществени медии също са основали политики по отношение на синтетични и манипулирани медии, споделяни на техните платформи. Потребителите на видео платформата YouTube, да вземем за пример, би трябвало да разкрият дали са употребявали генеративен изкуствен интелект за основаване на видеоклипове или ще бъдат изправени пред прекъсване.

___

Асошиейтед прес получава поддръжка от няколко частни фондации да усъвършенства своето обяснително отразяване на изборите и демокрацията. Вижте повече за самодейността за народна власт на AP тук. AP е само виновен за цялото наличие.